İnternet İzleme Vakfı (IWF), yapay zeka (AI) teknolojisinin çocuk cinsel istismarı nitelikli materyal (CSAM) üretiminde kullanımı üzerine yeni bir rapor yayımladı.“<a fr-original-style="" href="https://www.iwf.org.uk/about-us/why-we-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Yapay Zeka Çocuk Cinsel İstismarı Raporu</a>” isimli rapor, AI teknolojisinin çocuk istismarı için kullanımı ile bu alandaki tehditlerin her geçen gün arttığını gözler önüne serdi.AI teknolojisinin suçlular tarafından giderek daha fazla kullanıldığına dikkat çeken rapor, AI’ın özellikle görsel içeriklerde çocuk istismarı amacıyla manipüle edildiğini belirtti.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">İlk kez tamamen yapay zekayla üretilmiş istismar videosu üretildi</h2>Rapora göre suçlular, AI araçlarını kullanarak yasa dışı çocuk istismarı içeriklerini üretmek konusunda çok daha başarılı hale geldi. Raporda, hızla gelişen AI teknolojisi sayesinde oluşturulan görüntülerin %90’ının gerçek görüntüler kadar gerçekçi olduğu ve yasa dışı olarak değerlendirilebileceği vurgulandı.Raporda, 2023’te özellikle “dark web”de yaklaşık 20 bin AI destekli CSAM görüntüsünün paylaşıldığı, 2024'te ise bu sayının azalmasına rağmen paylaşılan içeriklerin daha ciddi suç kategorilerine girdiği belirtildi.&nbsp;Bununla birlikte raporda, 2024’te ilk kez AI ile üretilmiş cinsel istismar videolarına rastlandığı kaydedildi. Bu videoların çoğunun "deepfake" olarak bilinen, gerçek görüntülerin AI ile manipüle edilmesiyle oluşturulan içerikler olduğu ancak tam sentetik videoların da üretilmeye başlandığı ifade edildi.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI araçları ile çocuk istismarı mağdurları bir kez daha istismara uğruyor</h2>Raporda, AI tabanlı video üretiminde kaydedilen ilerlemelere de dikkat çekildi ve Google Veo ile OpenAI Sora gibi gelişmiş AI video üretim araçlarına değinildi. Bu gibi araçların metinden görüntüye ya da metinden videoya içerik üretebilme kapasitesiyle suçluların elinde tehlikeli birer araç haline geldiği vurgulandı. Raporda, “Bu modeller, AI destekli çocuk cinsel istismarı materyallerinin yayılmasını hızlandırabilecek potansiyele sahip” dendi.Ayrıca suçluların, bilinen çocuk istismarı mağdurlarını ya da ünlü çocukları içeren görselleri AI teknolojisi ile yeniden canlandırdıkları tespit edildi. Raporda bunun için “Bu, mağdurların bir kez daha istismar edilmesine yol açarken özellikle AI'ın sağladığı olanaklar sayesinde bu görüntülerin sürekli olarak yeniden üretilebilmesi, mağdurların travmalarının sürekliliğini artırıyor” ifadeleri kullanıldı.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI ile oluşturulan her beş içerikten biri suç teşkil ediyor</h2>Rapor kapsamında bir IWF analisti, yapay zeka kullanılarak oluşturulmuş görseller için yapılan şikayet bildirimlerini de izledi.Buna göre Nisan 2023 ile Mart 2024 arasında, kamuya açık internet sitelerinde yer alan ve AI ile oluşturulmuş 375 içerik için bildirim yapıldığı tespit edildi. Analiz sonucunda, bu 375 bildirimin 70’inde yer alan içeriklerin CSAM olduğu ve Birleşik Krallık yasaları uyarınca “çocuk istismarı” suçunu meydana getirdiği belirlendi. Bu, AI ile oluşturulmuş her beş içerikten birinin CSAM olduğu anlamına gelirken bu içeriklerin kaldırılmaları için işlem yapıldı.Aylara göre AI ile oluşturulmuş içerik ve bunlardan kaçının CSAM olduğunu gösteren grafik şöyle:<img src="https://images.aposto.com/2024/10/4/1731618846413.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.74" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">Buna göre CSAM, şubat ayında zirve yaparken IWF, bunun için şu yorumu yaptı:<blockquote fr-original-style="color: rgb(9, 9, 9); border-color: rgb(255, 206, 20); border-width: 4px; font-style: italic; padding-left: 10px;" style="color: rgb(9, 9, 9); border-color: rgb(255, 206, 20); border-width: 4px; font-style: italic; padding-left: 10px; margin: 0px 0px 1em; border-left-style: solid; box-sizing: border-box;">“Özellikle, ‘gerçek’ çocuk görüntüleri yerine, herkese açık internet sitelerinde AI CSAM görüntülerinin paylaşıldığını gördük. Bunlar arasında ticari siteler ve bağlantılı dosya barındırma sitelerine [WeTransfer, Google Drive vb.] sahip forum sayfaları yer aldı. Bu durum, AI ile üretilmiş içeriğin ve AI CSAM’in halka açık internette yayıldığına dair kanıtlar sunuyor.”</blockquote><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI ile oluşturulmuş her üç görselden biri çocuk istismarı içeriyor</h2>Rapor kapsamında, adını vermediği popüler bir yeraltı forumunu da izleyen IWF, AI ile oluşturulan ve Mart-Nisan 2024’te forumda paylaşılan 12 bin 148 görseli analiz etti.12 IWF analisti, 130 saat süren incelemenin sonunda bu görsellerin toplam 3 bin 512’sinin&nbsp;(%29) CSAM olduğunu tespit etti.Bunların 2 bin 985’inin (%25) Birleşik Krallık yasalarınca “müstehcen”, 527’sinin (%4) ise “yasaklanmış” olduğu belirlendi. “Yasaklanmış” ifadesiyle çizgi film, çizim, animasyon vb. görseller ifade edildi.<img src="https://images.aposto.com/2024/10/4/1731618943942.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.69" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable"><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI ile üretilen CSAM görseli sayısı arttı</h2>IWF, bu sonucu, aynı çalışmayı yaptığı Eylül 2023’te elde ettiği verilerle kıyasladı.&nbsp;Buna göre söz konusu forumda paylaşılan AI ile oluşturulmuş görsel sayısının bu dönemde azaldığını belirten IWF, buna karşın AI ile oluşturulmuş CSAM görseli sayısının ise arttığını ifade etti.<img src="https://images.aposto.com/2024/10/4/1731618977405.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.67" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable"> <h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">İstismara konu olan görsellerde 11 ila 13 yaşındaki çocuklar kullanıldı</h2>IWF analistleri, AI ile oluşturulmuş CSAM görsellerindeki çocukların tahmini yaşlarını da analiz etti.Buna göre, 11 ila 13 yaş aralığındaki çocuklar ile 14-15 yaşlarındaki çocukların kullanıldığı görsel sayısı, Eylül 2023 dönemine kıyasla ortalama %10 artış gösterdi.<img src="https://images.aposto.com/2024/10/4/1731618652311.png" width="550" height="317" style="width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" ratio="1.70" fr-original-style="width: 100%; max-width: 550px;" fr-original-class="fr-draggable"><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Hükümetlere ve şirketlere çağrı: AI ile mücadele için acil eylem gerekli</h2>İnternet İzleme Vakfı (IWF) CEO’su Susie Hargreaves, hükümetleri ve teknoloji şirketlerini yapay zekanın kötüye kullanımına karşı acilen harekete geçmeye çağırdı.AI'ın kontrolsüz gelişimiyle birlikte çocuk cinsel istismarının yeni ve korkunç boyutlara ulaştığını belirten Hargreaves, "Gelecekte yapay zekanın kontrolsüz gelişiminin önüne geçilmezse AI ile üretilen çocuk istismarı içeriklerinin kontrolü neredeyse imkansız hale gelebilir” dedi.Hargreaves, hükümetlerin ve uluslararası kuruluşların yapay zekanın kötüye kullanımını önlemek amacıyla daha güçlü işbirliği yapmaları gerektiğini belirtti.* Bu içerik Avrupa Birliği'nin maddi desteği ile hazırlanmıştır. İçerik tamamıyla Aposto’nun sorumluluğu altındadır ve Avrupa Birliği'nin görüşlerini yansıtmak zorunda değildir.

Yankı Raporu

Yayımlanan yeni bir rapora göre yapay zeka kullanılarak oluşturulan her üç görselden biri çocuk istismarı içeriyor. IWF’ye göre bilinen istismar mağduru çocukların görselleri yapay zekayla canlandırılarak yeni istismar görsellerinde kullanılıyor.

AI ile oluşturulmuş her üç görselden biri çocuk istismarı içeriyor

<span fr-original-class="customBullet" fr-original-style="font-size: 24px; line-height: 12px; vertical-align: middle; display: inline-block;" style="font-size: 24px; line-height: 12px; vertical-align: middle; display: inline-block; box-sizing: border-box;">•&nbsp; Google, “I/O 2024” etkinliğinde tanıttığı yeni yapay zeka hizmetleri Veo&nbsp;ve Imagen 3’ü sınırlı bir kullanıcı kitlesiyle test edeceğini açıkladı. Şirket, test sürecine katılmak isteyen kullanıcılar için bir <a fr-original-style="" href="https://docs.google.com/forms/d/e/1FAIpQLSeC6n1KQlaqRNUGNuNRt5Q7YeoyXsq828niw2ZvIoAtW1FtYQ/viewform?resourcekey=0-qDKZCeB4G9nS9dttXGdnHQ" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">başvuru formu oluşturdu.</a>&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Ayrıntılar: ABD merkezli teknoloji şirketi, başvuruları değerlendirdikten sonra “güvenilir testçiler” olarak nitelendirdiği kişileri belirleyecek. Seçilen kişiler, daha sonra yeni araçlara Google Labs üzerinden erişebilecek.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Bilgi notu:&nbsp;Google’ın Sora’ya rakip olarak tasarladığı Veo, kullanıcılar bir metin komutu girdiğinde yaklaşık 1 dakika uzunluğunda 1080 piksel videolar oluşturabiliyor. Farklı sinematik tarzları kullanabilen yapay zeka modeli, önceden oluşturulmuş videolar üzerinde düzenlemeler de yapabiliyor.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Ek olarak: Imagen’ın en yeni sürümü Imagen 3 ise DALL-E gibi metin girdilerini görsele dönüştürüyor. </li></ul>

Quando AI

<span fr-original-class="customBullet" fr-original-style="font-size: 24px; line-height: 12px; vertical-align: middle; display: inline-block;" style="font-size: 24px; line-height: 12px; vertical-align: middle; display: inline-block; box-sizing: border-box;">•&nbsp;&nbsp; Google'ın geliştirici konferansı I/O 2024'te yapay zekanın başı çektiği birçok yenilik tanıtıldı. CEO Sundar Pichai'nin 121 defa AI terimini kullandığı sunumda, şirketin yapay zeka modeli Gemini'ın mobil uygulaması; Google Fotoğraflar'a soru sorma özelliği; çeviri, kodlama ve anlama konusunda iyileştirilen Gemini 1.5 Pro ve GPT-4o rakibi sesli asistan Gemini Live tanıtıldı.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li fr-original-style="" style="box-sizing: border-box;">Dahası: ABD'deki kullanıcılara Google aramalarında AI destekli sonuçlar önerecek olan şirket, metinden görsel üreten modeli Imagen 3 ile metinden video üreten OpenAI Sora rakibi modeli Veo'yu da tanıttı.</li><li fr-original-style="" style="box-sizing: border-box;">Ayrıca: Akıllı gözlüklerle uyumlu çalışan Project Astra da duyuruldu. Etkinlikteki tanıtımda yapay zeka, telefonun kamerasından gördüklerini tanımlayarak soruları yanıtladı.</li></ul>

Aposto Gündem

Yapay zeka ile görsel oluşturma aracı Midjourney, rakiplerini geride bırakmayı sürdürüyor. <a href="https://www.midjourney.com/home" rel="noreferrer noopener" target="_blank" fr-original-style="" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;"></a><a href="https://www.midjourney.com/home" rel="noreferrer noopener" target="_blank" fr-original-style="" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;"></a><a fr-original-style="" href="https://www.midjourney.com/home" rel="noreferrer noopener" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Midjourney</a>, “tutarlı karakterler” (consistent characters) adını verdiği bir özelliği test ettiğini açıkladı. Midjourney V6'daki bu özellikle kullanıcılar, aynı karakterin farklı mimik, konum ve tarzlardaki görsellerini tutarlı bir şekilde oluşturabilecek.<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Ayrıntılar:&nbsp;Midjourney V6 ana karakterin referans görüntüsü üzerinden tutarlı şekilde yeni görseller oluşturmanıza olanak tanıyor. Karakter, Discord'daki ve web arayüzündeki "--cref resim URL'si" komutu kullanılarak yeni görsellere eklenebiliyor. Oluşturulan karakterin saç modeli ve kıyafeti tüm görsellerde aynı kalabiliyor. Aynı kişiyi hem fotoğraf hem de elle çizilmiş portre veya çizgi roman karakteri tarzında göstermek mümkün. Midjourney'e göre bu özellik, yapay zeka tarafından çarpıtılabilecek gerçek kişi fotoğraflarından ziyade, Midjourney görüntüleri kullanılarak oluşturulan karakterler için uygun.</li></ul>Karakter Referansı, belirli karakteristik özelliklere odaklanıyor, bu yüzden de çiller veya marka logoları gibi ayrıntıları doğru şekilde üretemeyebiliyor.&nbsp;Referansın kıyafetlerini veya saç stilini değiştirmek için değerler --cw komutu kullanılarak 100 (yüz, saç ve kıyafet) ile 0 (yalnızca yüz) arasında ayarlanabiliyor. Bu özellik, görüntülü öyküler, çizgi romanlar ve sanal modeller oluşturulmasını sağlayarak farklı bir nişte büyüme etkisine sahip olabilir.

OpenAI Sora ile ilgili hikayeler